在本文中，我们提出了一个新型的非线性观察者，称为神经观察者，以通过将神经网络（NN）引入观察者的设计，以实现线性时间传播（LTI）系统的观察任务和不确定的非线性系统。通过探索NN代表向NN映射矢量的方法，我们从LTI和不确定的非线性系统中得出了稳定性分析（例如，指数收敛速率），这些系统仅使用线性矩阵不平等（LMIS）为解决观察问题铺平了道路。值得注意的是，为不确定系统设计的神经观察者基于主动扰动拒绝控制（ADRC）的意识形态，该思想可以实时测量不确定性。 LMI结果也很重要，因为我们揭示了LMI溶液存在系统矩阵的可观察性和可控性。最后，我们在三个模拟案例上验证神经观察者的可用性，包括X-29A飞机模型，非线性摆和四轮转向车辆。
translated by 谷歌翻译
机器学习的普及增加了不公平模型的风险，该模型被部署在高级应用程序中，例如司法系统，药物/疫苗接种设计和医学诊断。尽管有有效的方法可以从头开始训练公平模型，但如何自动揭示和解释受过训练的模型的不公平仍然是一项艰巨的任务。以可解释的方式揭示机器学习模型的不公平是朝着公平和值得信赖的AI迈出的关键一步。在本文中，我们系统地解决了通过挖掘可解释的证据（Rumie）来揭示不公平模型的新任务。关键思想是以一组模型区分的数据实例的形式找到可靠的证据。为了使证据可以解释，我们还找到了一组人为理解的关键属性和决策规则，这些属性和决策规则表征了歧视的数据实例，并将其与其他非歧视数据区分开来。正如在许多现实世界数据集上进行的广泛实验所证明的那样，我们的方法找到了高度可解释和可靠的证据，可以有效揭示受过训练的模型的不公平性。此外，它比所有基线方法更可扩展。
translated by 谷歌翻译
$ t_ {1 \ rho} $映射是一种有希望的定量MRI技术，用于对组织性质的非侵入性评估。基于学习的方法可以从减少数量的$ t_ {1 \ rho} $加权图像中映射$ t_ {1 \ rho} $，但需要大量的高质量培训数据。此外，现有方法不提供$ t_ {1 \ rho} $估计的置信度。为了解决这些问题，我们提出了一个自我监督的学习神经网络，该网络使用学习过程中的放松约束来学习$ t_ {1 \ rho} $映射。为$ t_ {1 \ rho} $量化网络建立了认知不确定性和态度不确定性，以提供$ t_ {1 \ rho} $映射的贝叶斯置信度估计。不确定性估计还可以使模型规范化，以防止其学习不完美的数据。我们对52例非酒精性脂肪肝病患者收集的$ T_ {1 \ rho} $数据进行了实验。结果表明，我们的方法优于$ t_ {1 \ rho} $量化肝脏的现有方法，使用少于两个$ t_ {1 \ rho} $加权图像。我们的不确定性估计提供了一种可行的方法，可以建模基于自我监督学习的$ t_ {1 \ rho} $估计的信心，这与肝脏中的现实$ t_ {1 \ rho} $成像是一致的。
translated by 谷歌翻译
尽管最近在图像恢复领域取得了重大进展，但最新方法（SOTA）方法的系统复杂性也在增加，这可能会阻碍方法的方便分析和比较。在本文中，我们提出了一个超过SOTA方法并且在计算上有效的简单基线。为了进一步简化基线，我们揭示了非线性激活功能，例如不需要Sigmoid，Relu，Gelu，SoftMax等：可以用乘法代替或去除它们。因此，我们从基线得出一个非线性无线激活网络，即nafnet。在各种具有挑战性的基准上取得了SOTA结果，例如33.69 db psnr在GoPro上（对于图像脱张），超过了先前的SOTA 0.38 dB，其计算成本仅为8.4％； SIDD上的40.30 dB PSNR（用于图像denoising），超过了先前的SOTA 0.28 dB，其计算成本不到一半。代码和预培训模型将在https://github.com/megvii-research/nafnet上发布。
translated by 谷歌翻译
在现实世界中，物体的发生频率是自然倾斜的形成长尾级分布，这导致统计上罕见的阶级的性能不佳。有希望的解决方案是挖掘尾级示例以平衡培训数据集。但是，采矿尾级示例是一个非常具有挑战性的任务。例如，由于数据中的偏差导致的类概率失真，大多数基于不确定性的挖掘方法接近斗争。在这项工作中，我们提出了一种有效，但简单的方法来克服这些挑战。我们的框架增强了Subdued Tail-Class的激活，此后，使用单级数据为中心的方法来有效地识别尾级示例。我们对三个数据集的框架进行了详尽的评估，这些数据集超过了两台计算机愿景任务。少数民族挖掘和微调模型的性能大量改善强烈证实了我们提出的解决方案的价值。
translated by 谷歌翻译
计算药物重新定位技术是加速药物开发的有效工具。虽然近几十年来这种技术已被广泛使用和成功，但许多现有模型仍然遭受多种缺点，例如矩阵分解模型中的大量未经验证的药物疾病关联和内部产品。这些作品的局限性主要是由于以下两个原因：首先，以前的作品使用负面采样技术将未经验证的毒性疾病关联视为负样本，在现实世界中无效;其次，内部产品缺乏对潜在因子的尺寸之间的交叉信息的建模。在本文中，我们提出了一种用于解决上述缺陷的小说框架，其模拟使用验证和未经验证的毒品疾病关联的毒性疾病关联的联合分布，而无需采用负面采样技术。 PUOS还使用外部产品操作建模了药物和疾病潜在因子的交叉信息。为了全面的比较，我们考虑了7个普遍的基线。两个现实世界数据集中的广泛实验表明，基于6个流行评估指标取得了最佳性能。
translated by 谷歌翻译
垂直联合学习（VFL）引起了越来越多的兴趣，因为它使多个政党具有非重叠功能来增强其机器学习模型，而无需透露其私人数据和模型参数。与其他机器学习算法相似，VFL面对公平性的需求和挑战，即，对某些具有敏感属性的群体，学习的模型可能具有不公平的歧视性。为了解决这个问题，我们在这项工作中提出了一个公平的VFL框架。首先，我们系统地制定了VFL中培训公平模型的问题，其中学习任务被建模为受约束的优化问题。要以联合和保护隐私的方式解决它，我们考虑了问题的等效双重形式，并开发出异步的梯度坐标坐标升级算法，其中一些活动的数据派对在每个通信中执行多个并行的本地化更新，以有效地减少数量的数量沟通回合。服务器发送给被动方的消息是故意设计的，以使本地更新所需的信息不会侵犯数据和敏感属性的隐私。当将算法应用于一般的非Convex-Concove Min-Max问题时，我们严格研究该算法的收敛性。我们证明该算法在$ \ Mathcal {o}中找到了双目标的$ \ delta $ stationary点（\ delta^{ - 4}）$在温和条件下循环。最后，在三个基准数据集上进行的广泛实验证明了我们在培训公平模型中方法的出色性能。
translated by 谷歌翻译
计算药物重新定位旨在发现销售药物的新治疗疾病，与传统药物开发相比，成本低，开发周期较低，可控性高的优点。由于其易于实现和优异的可扩展性，矩阵分解模型已成为计算药物重新定位的基石技术。然而，矩阵分解模型使用内在产品来表示药物和疾病之间的关联，这缺乏表达能力。此外，在其各自的潜在因子载体上不能暗示药物或疾病的相似性，这不满足常见的药物发现感。因此，在这项工作中提出了用于计算药物重新定位的神经度量分解模型（NMF）。我们新建了药物和疾病的潜在因子载体作为高维坐标系的点，提出了一种广义的欧氏距离，以代表药物和疾病之间的关联，以补偿内部产品的缺点。此外，通过将多种药物（疾病）指标信息嵌入到潜在因子向量的编码空间中，可以反映出药物（疾病）之间的相似性的信息反映在潜在因子向量之间的距离中。最后，我们对两个真实数据集进行了广泛的分析实验，以证明上述改进点和NMF模型的优越性的有效性。
translated by 谷歌翻译
在高措施应用中大量部署图神经网络（GNNS）对对噪声的强大解释产生了强烈的需求，这些解释与人类的直觉很好。大多数现有方法通过识别与预测有很强相关性的输入图的子图来生成解释。这些解释对噪声并不强大，因为独立优化单个输入的相关性很容易过分拟合噪声。此外，它们与人类直觉并不十分吻合，因为从输入图中删除已识别的子图并不一定会改变预测结果。在本文中，我们提出了一种新颖的方法，可以通过在类似的输入图上明确建模GNNS的共同决策逻辑来生成对GNN的强大反事实解释。我们的解释自然对噪声是强大的，因为它们是由控制许多类似输入图的GNN的共同决策边界产生的。该解释也与人类的直觉很好地吻合，因为从输入图中的解释中删除了一组边缘，从而显着改变了预测。许多公共数据集上的详尽实验证明了我们方法的出色性能。
translated by 谷歌翻译
非IID数据对联邦学习产生了艰难的挑战。在本文中，我们探讨了促进具有类似数据的客户端之间的成对合作的新颖思想。我们提出了Fedamp，一种采用联合细心信息的新方法，以促进类似客户协作更多。我们为凸和非凸模型建立了FedAMP的收敛，并提出了一种启发式方法，以进一步提高FEDAMP作为个性化模型时的联邦神经网络的性能。我们对基准数据集的广泛实验证明了所提出的方法的卓越性能。
translated by 谷歌翻译